Sejak tahun 1960, Ho mulai mundur dari pengambilan keputusan mengenai perang atas keadaan kesehatannya yang tidak mengizinkan. Beliau meninggal dunia pada 2 September 1969 pukul 9.47 pagi, pada usia 79 tahun akibat serangan jantung.[11]

Sebelum meninggal, Ho berpesan agar tubuhnya dibakar dan abunya disebarkan tanpa sebarang hebahan kepada orang ramai. Namun, hasrat tersebut tidak diendahkan pemerintah yang bertindak mengawetkan mayatnya dan meletakkannya dalam sebuah makam khusus di Hanoi untuk tontonan orang ramai.[12] Kedua-dua pihak yang berperang di seluruh Vietnam turut bersepakat mengadakan gencatan senjata selama 72 jam sebagai tanda menghormati pemergian Ho. Ho meninggal tepat 25 tahun setelah dia mengisytiharkan kemerdekaan Vietnam daripada penjajahan Perancis dan hampir enam tahun sebelum pasukan komunisnya berhasil menyatukan Vietnam Utara dan Selatan.[9]